Conditionally positive definite kernels: theoritical contribution, application to interpolation and approximation

Since Aronszajn (1950), it is well known that a functional Hilbert space, called Reproducing Kernel Hilbert Space (R.K.H.S ), can be associated to any positive definite kernel K. This correspondance is the basis of many useful algorithms. In the more general context of conditionally positive definite kernels the native spaces are the usual theoretical framework. However, the definition of conditionally positive definite used in that framework is not adapted to extend the results of the positive definite case. We propose a more natural and general definition from which we state a full generalization of Aronszajn’s theorem. It states that for every couple (K,P) such that P is a finite-dimensional vector space of functions and K is a P-conditionally definite positive kernel, there is a unique functional semi-Hilbert space of functions HK,P satisfying a generalized reproducing property. Eventually, we verify that this tool, as native spaces, leads to the same interpolation operator than the one provided by the kriging method and that, using representer theorem, we can identify the solution of a regularized regression problem in HK,P. Key-words: (Conditionally) Positive Definite Kernel, R.K.H.S, Native Space, Interpolation, Kriging, Regularized Regression ∗ Dassault Aviation, Université Paris-sud 11 † Université Paris-sud 11, INRIA SACLAY équipe SELECT in ria -0 03 59 94 4, v er si on 1 9 Fe b 20 09 Noyaux conditionnellement définis positifs : contribution théorique, application à l’interpolation et à l’approximation Résumé : Il est bien connu, depuis Aronszajn (1950), qu’à tout noyau défini positif K, on peut associer un espace de Hilbert de fonctions, appelé espace de Hilbert à noyau reproduisant associé à K (R.K.H.S ). Dans le cas plus général des noyaux conditionnellement positifs, le cadre théorique habituellement invoqué sont les espaces natifs. Cependant, la définition de conditionnellement defini positif qui y est proposée est trop restrictive pour généraliser complétement le cas défini positif. Nous proposons une définition à la fois plus naturelle et plus générale grâce à laquelle une véritable généralisation du théorème d’Aronszajn est démontrée. En substance, il établit qu’à chaque couple (K,P) tel que P est un espace vectoriel de fonctions de dimension finie et K est un noyau P-conditionnellement défini positif, il existe un unique espace semi-Hilbertien de fonctions HK,P (R.K.S.H.S ) satisfaisant une propriété de reproduction généralisée. Nous vérifions que cet outil, comme les espaces natifs, conduit au même opérateur d’interpolation que la méthode du krigeage et que, utilisant le théorème du représentant, on peut identifier la solution d’un problème de régression régularisée dans un R.K.S.H.S . Mots-clés : Noyau (conditionnellement) défini positif, R.K.H.S , espace natif, interpolation, krigeage, régression régularisée in ria -0 03 59 94 4, v er si on 1 9 Fe b 20 09 Conditionally positive definite kernels 3